AI с отворен код срещу затворен код: Каква е разликата и защо има значение?

Регулаторите, започващите компании и огромните технологии са разграничени на два лагера в дебата за изкуствен интелект с отворен и затворен код, където сигурността и облагата имат преимущество.

Битката сред фирмите за генеративен изкуствен интелект (AI) е в ход с два конкуриращи се лагера: програмен продукт с отворен код против затворен код.

Ключът в дебата е по какъв начин технологията се демократизира, само че сигурността и облагата имат преимущество в разногласието.

Най-общо казано, софтуерът с отворен код е мястото, където изходният код е наличен за всеки в общественото пространство за потребление, модифициране и разпространяване. Насърчава творчеството и нововъведенията, защото разработчиците могат да надграждат върху AI логаритми и авансово подготвени модели, с цел да трансформират личните си артикули и принадлежности.

ИИ със затворен код, въпреки това, значи, че изходният код е стеснен за персонална приложимост и не може да се трансформира или надгражда от потребителите; може единствено компанията, която го има. Но финансирането на тези компании с отворен код е по-лесно, което значи, че те разполагат с по-голям капитал за нововъведения.

Определението за това какво прави една компания с отворен код също не е толкоз ясно.

Определението за технология с отворен код

Инициативата за отворен код (OSI) е отговорник за определението за технология с отворен код.

Тя гласи, че „ отвореният код не значи единствено достъп до изходния код “ и че би трябвало да дава отговор на 10 критерия, в това число да има добре разпространявано средство за приемане на изходния код на рационална цена или гратис, без да е дискриминационно, и лиценз без ограничение на различен програмен продукт.

Но спазването на всички условия на OSI е необичайност и множеството компании с отворен код са единствено отчасти отворен код, като френския AI първенец Mistral. Той отваря своите тегла на модела – числовите параметри, които въздействат върху работата на AI модел – само че не и данните или процеса на образование.

Технология за всички

Компаниите за изкуствен интелект, които споделят, че са с отворен код, настояват, че вършат технологията по-достъпна за всички.

Отвореният код оказва помощ за демократизиране на софтуерната стопанска система, сподели Алекс Комбеси, основен изпълнителен шеф на съоснователя на френската компания за изкуствен интелект с отворен код Giskard, сподели Euronews Next.

Големите софтуерни компании подписват съглашение за битка с генерираната от AI дезинформация за изборите

„ Това изравнява изискванията на игра, тъй като в случай че е с отворен код, е гратис, най-малко като цяло. Това значи, че по-малките играчи могат да се конкурират с по-големите играчи, тъй като имат безвъзмезден достъп до артикули “, сподели той.

„ И това е доста значимо, изключително в свят, който е толкоз доминиран от монополи в технологиите “.

Отвореният код също изравнява политическото поле, позволявайки на всеки да ревизира кода, защото е забележим за регулаторите, до момента в който при затворения код детайлностите не са транспарантни.

Безопасност опасения

Но фирмите за AI със затворен код, като основателя на ChatGPT OpenAI (въпреки името си), настояват, че отвореният код заплашва нашата сигурност.

OpenAI в началото е основан, с цел да създава AI системи с отворен код, само че през 2019 година компанията сподели, че е прекомерно рисково да продължи да пуска своя GPT езиков модел на обществеността, защото наподобява прекомерно сходен на човешката тирада и в случай че бъде подложен в неверни ръце, може да генерира първокачествен подправен вести.

При изкуствения разсъдък със затворен код има и правила за потребление, които учтиво ще отхвърлят поръчки, като да вземем за пример указания за основаване на бомба или планиране на по-смъртоносен ковид.

Технически можете да извършите джейлбрейк политиката, което значи, че можете да я хакнете, с цел да заобиколите защитните ограничения на AI. Но тези уязвимости постоянно се поправят бързо.

Италианският надзирател на поверителността предизвестява OpenAI, че ChatGPT нарушава европейските закони за дискретност Сам Алтман от OpenAI назовава сагата за уволняване „ нелепа “ и има по-мек звук по отношение на заплахите от AI

Системите с AI с отворен код най-вероятно ще имат защитни ограничения или управление за виновна приложимост. Но колкото и да се пробват да се оправят с дискриминирането или заплахата, откакто копие на AI модела е налично, всеки, който го има, може самичък да промени защитните ограничения.

Най-добър образец за това беше, когато Meta пусна своя огромен отворен код езиков модел (LLM) Llama 2 през юли предходната година.

Само дни по-късно хората пуснаха свои лични нецензурирани версии на Llama 2, задавайки въпроси за това по какъв начин да се направи нуклеарна бомба, на които LLM по-късно можеше да отговори.

След като някой пусне „ нецензурирана “ версия на AI модел, няма съвсем нищо, което истинският производител на AI може да направи, изключително откакто към този момент ще е изтеглен от други консуматори.

Голям софтуерен бизнес

През декември Meta и IBM стартираха група, наречена AI Alliance, което я слага в несъгласие с колосите със затворен код OpenAI, Гугъл и Microsoft.

AI Alliance се застъпва за метод на „ отворена просвета “ към AI и включва 74 компании, в това число започващи компании, огромни компании и нестопански организации.

„ Отвореният, виновен и транспарантен метод към AI е от изгода за всички – промишлеността, университетските среди и обществото като цяло “, сподели Алесандро Куриони, помощник на IBM, вицепрезидент за Европа и Африка и шеф на IBM Research.

Запитан за сигурността, той сподели, че концепцията зад отворения и транспарантен AI е да се сведат до най-малко страховете.

„ Отвореният, транспарантен и виновен AI ще помогне за възстановяване на сигурността на AI, като подсигурява, че отвореният общността от разработчици и откриватели се занимава с верните опасности от AI и ги смекчава с най-подходящите решения “, сподели той пред Euronews Next.

„ Това не значи, че всички технологии би трябвало да бъдат отворени – и най-важното, отворени не значи, че не се ръководи. Управлението е еднообразно значимо, без значение дали става въпрос за отворен или патентован AI “, разясни той.

Проблемът с финансирането

Докато аргументът с отворен код, че разработчиците могат свободно надграждайки моделите на изкуствен интелект с отворен код и разширявайки границите, парите, несъмнено, са в основата на дебата.

Някои вложители може да бъдат възпрепятствани от модел с отворен код, защото може да се усещат по-спокойни със предпазен интернет протокол (IP).

„ Разговор с огромен езиков модел в действително време също употребява доста изчислителна мощ и се свързва с изчислителни облачни решения, което не е доста на ниска цена “, сподели доктор Теодор Чен, експерт по данни в Deloitte.

„ В този миг виждам, че в действителност се основава на вложения за обезпечаване на доходи. Така че по-авангардната технология в действителност се нуждае от финансиране за това, ” сподели той пред Euronews Next.

„ Притесненията ми са повече за хората, институциите, в сравнение с за технологиите “: Мередит Уитакър от Signal за AI

„ Монетаризацията също се употребява също и за разработка, което може да се употребява за създаване на по-точни модели, което е от изгода за напредъка на промишлеността като цяло. “

Но напредването на технологията напред може да се направи и с модели с отворен код, защото разработчиците могат да бъдат изобретателни и създаване на нови приложения за AI.

„ Ако повече хора имат достъп до суровините, където в действителност могат да вършат изобретателни и доста забавни неща, можем да забележим, че нещата се популяризират в направления, които евентуално или никой не би предположил ”, сподели Тиаго Кардосо, продуктов управител в Hyland, пред Euronews Next.

Регулация

Дебатът за отворен против затворен код е спънка за регулаторите в Европа и Съединените щати, които имат противоположни възгледи.

В Европа Законът за ИИ на Европейски Съюз се чака да получи дефинитивно парламентарно утвърждение през април. Но текстът, който чака утвърждение, споделя, че законът няма да се ползва за системи с изкуствен интелект с отворен код, в случай че не са неразрешени или класифицирани като високорискови системи с изкуствен интелект.

Това е добре пристигнала вест за Франция и Германия, който по време на договарянията настояваше да отбрани своите започващи компании с отворен код.

Може ли Законът за ИИ на Европейски Съюз да обхване потребностите на хората, като в същото време предефинира логаритмите? „ Потенциално пагубно “ за нововъведенията: Технологичният бранш реагира на Закона за ИИ на Европейски Съюз, като споделя, че отива прекомерно надалеч

Междувременно в Съединените щати всеобхватната изпълнителна заповед на президента Байдън в края на предходната година споделя, че когато моделите с отворен код – които той назова модели на основата с двойна приложимост – са „ обществено оповестени в интернет, може да има обилни изгоди за нововъведенията, само че също по този начин и обилни опасности за сигурността, като премахването на защитните ограничения в границите на модела “.

Байдън даде период на министъра на търговията Джина Раймондо до юли да приказва с специалисти и да се върне с рекомендации.